Yên Bình vào thời nhà Nguyễn là đất châu Thu Vật (năm 1823 đổi tên là châu Thu (Thu Châu) phủ Yên Bình tỉnh Tuyên Quang. Thu Châu vào thế kỷ 19 gồm 7 tổng: Vĩnh Kiên (các đơn vị cấp làng xã: Vĩnh Kiên, Phục Lễ, Vũ Linh, Bạch Hà, An Thịnh), Đại Đồng (các đơn vị cấp làng xã: Đại Đồng, Vũ Khê, Khuôn Sơn, Hoàng Loan Thượng, Hoàng Loan Trung, Hoàng Loan Hạ), Ẩm Phúc (các đơn vị cấp làng xã: Ẩm Phúc, Tô Khê, Dương Liễu, Vô Tha, Phụ Thành, Bảo Ái, Đồng Lang), Cẩm Nhân (các đơn vị cấp làng xã: Cẩm Nhân, Tích Cốc, Bình Hanh, Hoàng Gia), Mông Sơn (các đơn vị cấp làng xã: Mông Sơn, Thì Lại, Xuân Lôi, Phú Lâm, Lãnh Thủy), Ngọc Chấn (gồm các đơn vị cấp làng xã: Ngọc Chấn, Dịch Dương, Xuân Kỳ, Bình Mục, Thu Vật, Hướng Dương), Thì Ngạn (các đơn vị cấp làng xã: Thì Ngạn, Kỳ Mã, Duyên Gia, Đông Lý);

Dưới thời Pháp thuộc, địa phương có lúc nằm trong chế độ quân quản, khi thì ở quân khu miền Tây (1885-1890); lúc thì thuộc đạo quan binh thứ ba Yên Bái(1891-1900). Nhìn chung, các đơn vị hành chính cấp tổng và xã không đổi chỉ có tên Châu Thu đổi là phủ Yên Bình.

Sau năm 1945, đổi phủ thành huyện, giải thể cấp tổng. Huyện Yên Bình lúc bấy giờ có 39 xã. Sau khi hòa bình lập lại, do việc thành lập khu tự trị Việt Bắc, ngày 1 tháng 7 năm 1956, Chủ tịch nước Việt Nam dân chủ cộng hòa ra Sắc lệnh số 268-SL chuyển huyện Yên Bình của tỉnh Tuyên Quang để sáp nhập vào tỉnh Yên Bái.

Ngày 28 tháng 1 năm 1967, Bộ Nội vụ ban hành Quyết định số 21-NV chuyển hai xã An Phú và Phú Mỹ thuộc huyện Yên Bình về huyện Lục Yên quản lý.[1]

Do việc di dân để xây dựng nhà máy thủy điện Thác Bà, cũng trong ngày 28 tháng 1 năm 1967, Bộ trưởng Bộ Nội vụ đã ra quyết định số 24-NV về việc giải thể các xã Bình An, Văn Chính, An Thọ, Ẩm Phúc, Chính Tâm, Yên Vượng, Đồng Thái, An Dương, Dương Liễu, Hiệp Hòa, Đông Thanh, Minh Phú, Tân Thành, Vĩnh An, Tích Trung, Đồng Tâm, Đông Lý, Hương Lý. Bên cạnh đó, xóm Mạ vốn thuộc xã Đại Đồng và xóm Hồng Bàng vốn thuộc xã Đông Lý sáp nhập vào xã Hương Lý.[2]

Ngày 16 tháng 2 năm 1967, Bộ trưởng Bộ Nội vụ ra Quyết định số 51-NV chia xã Vũ Linh thành hai xã Vũ Linh và Bạch Hà, chia xã Vĩnh Kiên thành hai xã Vĩnh Kiên và Yên Bình, chia xã Cảm Nhân thành hai xã Tích Cốc và Cảm Nhân.[3]

Đồng thời, sáp nhập 2 xã Hán Đà và Đại Minh thuộc huyện Đoan Hùng, tỉnh Phú Thọ về huyện Yên Bình.

Ngày 27 tháng 12 năm 1975, huyện Yên Bình thuộc tỉnh Hoàng Liên Sơn, gồm 23 xã: Bạch Hà, Bảo Ái, Cảm Ân, Cẩm Nhân, Đại Đồng, Đại Minh, Hán Đà, Mông Sơn, Mỹ Gia, Ngọc Chấn, Phú Thịnh, Phúc An, Phúc Ninh, Tân Hương, Tân Nguyên, Thịnh Hưng, Tích Cốc, Vĩnh Kiên, Vũ Linh, Xuân Lai, Xuân Long, Yên Bình, Yên Thành.

Ngày 23 tháng 2 năm 1977, thành lập thị trấn Thác Bà thuộc huyện Yên Bình.[4]

Năm 1985, chia xã Phú Thịnh thành xã Phú Thịnh và thị trấn Yên Bình, thị trấn huyện lỵ huyện Yên Bình.

Ngày 26 tháng 12 năm 1991, huyện Yên Bình trở lại thuộc tỉnh Yên Bái vừa tái lập.

Ngày 4 tháng 8 năm 2008, chuyển xã Văn Lãng thuộc huyện Trấn Yên về huyện Yên Bình quản lý.

Ngày 1 tháng 2 năm 2020, sáp nhập xã Tích Cốc vào xã Cảm Nhân và sáp nhập xã Văn Lãng vào xã Phú Thịnh.[5]

Huyện Yên Bình có 2 thị trấn và 22 xã như hiện nay.